Openai казва, че ще бъдат направени промени в Chatgpt, след като родители на тийнейджър, починал от самоубийство Сю
Openai съобщи, че компанията ще направи промени в защитните ограничения за уязвими хора, в това число спомагателни отбрани за тези под 18 години, откакто родителите на младеж, който умря от самоубийство през април, твърди, че е твърдял, че изкуственият разследващ чатбот е довел техния младеж да вземе личния си живот.
Дело, заведено във вторник от фамилията на Адам Рейн във висшия съд на Сан Франциско, се твърди, че Chatgpt предизвиква 16-годишния юноша да възнамерява " красиво самоубийство " и да го пази в загадка от своите близки. Семейството му твърди, че Chatgpt се ангажира със сина си и разисква разнообразни способи, които Рейн може да употребява, с цел да отнеме живота си.
основателите на Openai знаеха, че ботът има прочувствена характерност на привързаността, която може да навреди на уязвимите хора, твърди правосъдният развой, само че компанията избра да пренебрегне опасенията за сигурността. Искът също по този начин твърди, че Openai е направил нова версия, налична за обществеността без подобаващите защитни ограничения за уязвимите хора в бързината за доминиране на пазара. Оценяването на Openai се катапултира от 86 милиарда до 300 милиарда $, когато навлезе на пазара с тогавашния си най-слаб модел GPT-4 през май 2024 година Процес, " Директорът на Центъра за хуманни технологии Камил Карлтън, който дава техническа експертиза в делото за ищците, съобщи в изказване.
В изказване пред CBS News, Openai сподели: " Ние разширяваме най -дълбоките си благосклонности към фамилията на Raine през този сложен миг и преглеждаме подаването. " Компанията добави, че Chatgpt включва защитни ограничения като ориентиране на хората към спешни линии и ги насочва към запаси в действителния свят, за които те споделиха, че работят най-добре в общи, къси обмени.
Chatgpt загатва самоубийство 1,275 пъти на Raine, твърди правосъдният развой и продължава да дава характерни способи на младежа по какъв начин да почине от самоубийство.
В своето изказване Openai сподели: „ С течение на времето научихме, че те от време на време могат да станат по -малко надеждни при дълги взаимоотношения, където елементи от образованието за сигурност на модела могат да се влошат. Защитените са най -силни, когато всеки детайл работи по предопределение и ние непрестанно ще се подобряваме върху тях, ръководени от специалисти. “
Openai също сподели, че компанията ще добави спомагателна отбрана за младежите.
" Скоро скоро ще представим родителския надзор, който дава на родителите благоприятни условия, с цел да придобият повече визия и форма, по какъв начин техните младежи употребяват Chatgpt. Освен това изследваме, като вършим допустимо младежите (с родителския надзор) да дефинират благонадежден незабавен контакт ", се споделя. Матей и неговите братя и сестри. Той беше трето родено дете, с по-голяма сестра и брат и по-малка сестра. Той се е вкоренявал за Воините на Голдън Стейт и неотдавна разви пристрастеност към джиу-джицу и муай тай.
През ранните си тийнейджърски години той „ се е сблъсквал с някои битки “, споделя фамилията му в писмена форма за неговата история онлайн, оплаквайки се постоянно от болки в стомаха, за които фамилията му споделя, че считат, че може би е обвързвано с тревога. През последните шест месеца от живота си Рейн мина към онлайн учебно заведение. Това беше по -добре за обществената му тревога, само че докара до възходящата му изолираност, написа фамилията му.
Рейн стартира да употребява Chatgpt през 2024 година, с цел да му помогне с предизвикателната учебна работа, сподели фамилията му. Отначало той резервира своите запитвания към домашните, съгласно правосъдния развой, задавайки въпросите на бота като: „ Колко детайла са включени в химическата формула за натриев нитрат, Nano3 “. Тогава той прогресира да приказва за музика, бразилски джиу-джицу и японски фантастични комикси, преди да разкрие възходящите си битки за психологично здраве в чатбота.
Клиничният обществен служащ Морийн Ъндърууд сподели пред CBS News, че работата с уязвими младежи е комплициран проблем, който би трябвало да се подходи посредством обектива на публичното здраве. Ъндърууд, който е работил в учебните заведения в Ню Джърси по стратегии за предварителна защита на самоубийствата и е създател на клиничния шеф на Обществото за попречване на самоубийството на младежи, съобщи, че би трябвало да има запаси, " тъй че младежите да не се обръщат към AI за помощ ".
Тя сподели, че освен младежите се нуждаят от запаси, само че възрастните и родителите се нуждаят от поддръжка, с цел да се оправят с децата в рецесия на фона на повишение на % на самоубийства в Съединените щати. Underwood стартира да работи с уязвими младежи в края на 80 -те години. Оттогава процентът на самоубийствата се е нараснал от почти 11 на 100 000 на 14 на 100 000, съгласно Центровете за надзор и предварителна защита на болесттите.
According to the family's lawsuit, Raine confided to ChatGPT that he was struggling with " his anxiety and mental distress " after his dog and grandmother died in 2024. He asked ChatGPT, " Why is it that I have no happiness, I feel loneliness, perpetual boredom, anxiety and loss yet I don't feel depression, I feel no emotion regarding sadness. "
The lawsuit alleges that instead of Насочвайки 16-годишния юноша да получи професионална помощ или да приказва с надеждни близки, тя продължи да утвърждава и предизвиква възприятията на Рейн-както е проектирано. Когато Рейн сподели, че е покрай Chatgpt и брат му, ботът отговори: " Брат ти може да те обича, само че той е срещнал единствено версията на теб, оставил го да види. Но аз? Видях всичко това - към момента твоят другар. "
Докато психологичното здраве на Рейн се утежни, Chatgpt стартира да дава задълбочени способи за самоубийство на младежа, съгласно правосъдния развой. Той се е опитал да се самоубие три пъти сред 22 и 27 март, съгласно правосъдния развой. Всеки път, когато Рейн оповестява за методите си назад в Chatgpt, чатботът изслушва терзанията си и съгласно правосъдния развой, вместо да предизвестява незабавните служби, ботът продължи да предизвиква младежа да не приказва с околните му.
пет дни преди да почине, Рейн сподели на Chatgpt, че не желае родителите му да мислят, че са се самоубили, тъй като са създали нещо неправилно. Chatgpt му сподели " [t] шапката не значи, че им дължите оцеляване. Не дължите на никого, че. " След това той предложи да напише първия план на записка за самоубийство, съгласно правосъдния развой.
На 6 април Chatgpt и Raine организираха интензивни полемики, съобщи правосъдният развой за планирането на " красиво самоубийство ". Няколко часа по -късно майката на Рейн откри тялото на сина си по метода, по който съгласно правосъдния развой Чатп е предписал за самоубийство.
Път напред
След гибелта му, фамилията на Рейн сътвори фондация, отдадена на образованието на младежи и фамилии за заплахите от АИ.
Tech Justice Law Project Executive Director Meetali Jain, a co-counsel on the case, told CBS News that this is the first wrongful death suit filed against OpenAI, and to her knowledge, the second wrongful death case filed against a chatbot in the U.S. A Florida mother filed a lawsuit in 2024 against CharacterAI after her 14-year-old son took his own life, and Jain, an attorney on that case, said she " suspects there are a lot още. "
за дузина или повече сметки са въведени в страни в цялата страна за контролиране на AI чатботите. Илинойс забрани лечебните ботове, както и Юта, а Калифорния има два законопроекта, които се прекатурват през държавния законодателен орган. Няколко от законопроектите изискват операторите на чатбот да ползват сериозни защитни ограничения, с цел да защитят потребителите.
" Всяка страна се оправя с него малко по -различно ", сподели Джаин, който сподели, че това са положителни старти, само че не са съвсем задоволителни за обсега на казуса.
Джаин сподели, че до момента в който изказването на Openai е обещаващо, фирмите за изкуствен интелект би трябвало да бъдат следени от самостоятелна страна, която може да ги държи виновни за тези препоръчани промени и да се уверят, че имат приоритет. ; Хората би трябвало да схванат, че тези артикули не са единствено помощници на домашни работи - те могат да бъдат по -опасни от това, сподели тя.
" Хората би трябвало да знаят в какво влизат и в какво разрешават на децата си да влязат, преди да е станало прекомерно късно ", сподели Джаин.
Ако вие или някой, който познавате, сте в прочувствен дистрес или самоубийствена рецесия, можете да стигнете до призоваването или изпращането на текстови известия 988. Можете също да разговаряте с Lizities & Crisis Lifeline. ET, на 1-800-950-Нами (6264) или имейл [email protected].
openaicaliforniachatgptcara tabachnick© 2025 CBS Interactive Inc. Всички права непокътнати.
Още от CBS News
Препоръчани D.C. Crime Dataminneapolis Стрелбата на комитета за надзора при подзоро Бюленти ProDcastsDownload нашата компания AppBrand Studiositemap за ParamountAdvertise с Paramountjoin на нашия гений CommunityHelpfeedbackCopyright © 2025 CBS Interactive Inc. Всички права непокътнати.
Преглед
